📘 ONNX 模型 · Runtime 优化实战
🎯 30 章 从入门到部署 · 友好色系
📁 30 个章节
⚡ ONNX Runtime
🧩 导出/量化/融合
01
ONNX 基础入门
是什么
为什么需要
生态概览
PyTorch/TensorFlow
02
ONNX 模型导出
PyTorch导出
TensorFlow导出
dynamic_axes
03
ONNX 模型结构解析
计算图
Node/Tensor
Netron可视化
04
ONNX 算子与数据类型
标准算子集
自定义算子
版本兼容
05
模型验证与调试
checker
shape_inference
常见错误
06
ONNX Runtime 入门
安装配置
CPU/GPU
Python API
07
推理基础 · Session & Run
Session创建
Run方法
同步/异步
08
性能调优 · 配置与优化
Session Options
线程/内存
Graph Optimization
09
ONNX Runtime 量化
动态/静态量化
QAT
精度评估
10
算子融合
融合原理
LayerNorm/GELU
效果对比
11
内存管理
Arena分配器
跨模型共享
泄漏排查
12
多模型推理
多Session
模型并行
资源隔离
13
自定义算子
C++/Python注册
实现
算子测试
14
执行提供者
CPU/CUDA
TensorRT
OpenVINO
15
TensorRT 集成
FP16/INT8
动态形状
性能对比
16
OpenVINO 集成
Intel加速
配置
模型优化
17
CoreML 集成
Apple Silicon
ANE加速
配置
18
DirectML 集成
Windows GPU
WSL
配置
19
NNAPI 集成
Android端侧
Qualcomm/MTK
配置
20
WebAssembly 推理
WASM
浏览器端
Web Worker
21
Java / C# 绑定
Java API
C# API
跨语言
22
模型加密与保护
加密方案
自定义解密
知识产权
23
分布式推理
gRPC
负载均衡
大规模部署
24
模型转换与优化
onnxsim
剪枝
知识蒸馏
25
ONNX ML 扩展
树模型
特征工程
Pipeline
26
ONNX RX 扩展
强化学习
策略网络
环境交互
27
性能分析 · Profiling
Profiling工具
瓶颈定位
带宽分析
28
容器化部署
Docker
Kubernetes
自动扩缩容
29
边缘设备部署
树莓派
Jetson Nano
RK3588
30
实战项目 · 全模型部署
图像分类
目标检测
NLP/多模态